
์๋น์ค
bedrock๊ณผ opensearch๋ฅผ ์ด์ฉํ์ฌ ํ์ดํธ์ง๋ก์ ๋ฒ์ธ์นด๋ ์ฌ์ฉ๋ด์ญ ๋ฐ ๋ด์ฉ์์ฝ ๊ธฐ๋ฅ์ ์ ๊ณตํ๋
AI ์์ด์ ํธ์ RAG ํ์ดํ๋ผ์ธ์ ๊ตฌ์ถ
๊ธฐ๊ฐ
2025.09.01 ~ 2025.10.31 | 2M
๐ ๏ธ ํ๋ก์ ํธ ์คํ
| Category | Technologies |
|---|---|
| Backend | Java(Spring) + Mybatis , JSP |
| Infra | docker |
| Rag set up | aws bedrock, aws opensearch |
๐ก ์ฃผ์ ๊ฒฝํ
1๏ธโฃ AWS BEDROCK ๊ณผ OPENSEARCH ์ฐ๊ณ๋ก RAG ํ์ดํ๋ผ์ธ ๊ตฌ์ถ
- ์์ฐ์ด๋ฅผ SQL๋ก ๋ณํํ๋ TTS RAG ํ์ดํ๋ผ์ธ์ ๊ตฌ์ถ.
: Java + SpringBoot + AWS Bedrock | OpenSearch ์ฌ์ฉ
(
1. MultiTurn - ์ด์ ๋ํ์ ๋ด์ฉ๊ณผ ํ์ฌ ์ง์๋ฅผ ๋งฅ๋ฝ์ ๊ธฐ๋ฐ์ผ๋ก ์ง์ ์ฌ๊ตฌ์ฑ
2. UserIntent - ์ฌ์ฉ์ ์๋ ๋ถ์ ๋จ๊ณ๋ก ์ง์๋ฅผ ๋ชจ๋ธ์ด ๋ ์ฝ๊ฒ ํ์
ํ ์ ์๋๋ก ๊ณ ๋ํ
3. SQL Generate - ๊ณ ๋ํ๋ ์ง์๋ฅผ SQL๋ก text to sql ๋ณํ
4. SQL Verify - ์์ฑ๋ SQL์ ๊ฒ์ฆํ๊ณ ์ค๋ฅ๊ฐ ์๋ค๋ฉด ์ฌ์๋ ํ์ดํ๋ผ์ธ ์คํ
5. Summary Extraction - ๋ฐ์ดํฐ์ ์์ฝ ํ๋๋ฅผ ๋ถ๋ฅํ๊ณ ๋ฐ์ดํฐ ๊ตฌ์ฑ ์งํ
6. Answer Generation - ์กฐํ๋ ๋ฐ์ดํฐ๋ฅผ ์์ฝํ์ฌ ๋ด์ฉ์ด ์ ๋ฆฌ๋ ์์ฐ์ด ์์ฑ
7. TokenCost Calculation - ํ์ดํ๋ผ์ธ์์ ์ฌ์ฉํ ํ ํฐ์ ์ ํฉ๊ณ
8. Response Creation - ์ต์ข
์๋ต ๊ตฌ์ฑ
)
2๏ธโฃ ๋ฐ์ดํฐ ์ ํฉ์ฑ๊ณผ ๋๊ธฐํ ํ๋ ๋ฐฐ์น ํ์ดํ๋ผ์ธ ๊ฐ๋ฐ
- ์๋ณ๋ก ๋ฒ์ธ์นด๋ ์ฌ์ฉ๋ด์ญ๊ณผ ์ถ๊ฐ์ ์ธ ๋ฉํ๋ฐ์ดํฐ๋ฅผ ๊ด๋ฆฌํ๊ธฐ ์ํด ๋ฐ์ผ๋ฆฌ๋ก ๋ฐ์ดํฐ์ ์ฑํฌ๋ฅผ ๋ง์ถ๋
diff ๋ฐฐ์น ๊ฐ๋ฐ.
: ํด๋น ์ดํ๋ฆฌ์ผ์ด์
์ ๊ธฐ๋ฐ ๋ฐ์ดํฐ์ ์์ฒ ๋ฐ์ดํฐ์ ๋ฐ์ดํฐ๋ฅผ ๋ฐ์ผ๋ฆฌ๋ก diff ํ์ฌ ํด๋น ๊ฒฐ๊ณผ์
๋ผ ์ผ๋ฐ์ ์ธ ์
๋ฐ์ดํธ๋ฅผ ํ ๊ฒ์ธ์ง, ์ฐจ์ด๋ง ๋ก๊ทธ์ ๋จ๊ธธ ๊ฒ์ธ์ง, ๋ชจ๋ ๋ฐ์ดํฐ๋ฅผ ๋ค์ ์ฌ๊ตฌ์ฑ ํ ๊ฒ
์ธ์ง ์ด 3๊ฐ์ง ๋ชจ๋๋ก ๋ฐฐ์น ๋ชจ๋๋ฅผ ๊ตฌ์ถํจ.
3๏ธโฃ ์์ด์ ํธ ์ฑ ํ๋ฉด ๊ฐ๋ฐ
- ๋ฒ์ธ์นด๋ ์ฌ์ฉ๋ด์ญ ๋ฐ ๋ด์ฉ ์์ฝ ๊ธฐ๋ฅ์ ์ ๊ณตํ๋ ์์ด์ ํธ Chat ํ๋ฉด๊ณผ DB๊ตฌ์กฐ ๊ตฌ์ถ
: DB๋ Mysql RDBMS ๊ธฐ๋ฐ์ผ๋ก ์ถํ์ ๋ค๋ฅธ ์์ด์ ํธ๋ค์ด ์ถ๊ฐ๋ ๊ฒ์ ๊ณ ๋ คํ์ฌ ํ์
์ ๋ฐ๋ผ ๋ค๋ฅธ
ํ
์ด๋ธ์ด ์ถ๊ฐ์ ์ผ๋ก ์๊ธธ์ ์๋ ํ์ฅ์ ๊ตฌ์กฐ๋ก ๊ตฌ์ถ
